Có hai hình thức âm nhạc được công nhận là cổ nhất của âm nhạc truyền thống Nhật Bản. Đó là shōmyō (声明 hay 聲明?) hay Phật hát, và gagaku (雅楽?) hay dàn âm nhạc triều đình (nhã nhạc Nhật Bản), cả hai đều có lịch sử từ thời Nara và Heian.[6] Gagaku là loại ca nhạc cổ được biểu diễn trong cung điện hoàng gia từ thời Heian[phạt cần]. Kagura-uta (神楽歌), Azuma-asobi(東遊) và Yamato-uta (大和歌) là các tiết mục địa phương. Tōgaku (唐楽) và komagaku xuất phát từ thời nhà Đường của Trung Quốc thông qua bán đảo Triều Tiên[phạt cần]. Thêm vào đó, gagaku chia ra làm kangen (管弦) (âm nhạc nhạc cụ) và bugaku (舞楽) (nhảy đi kèm với gagaku).

Bắt nguồn từ đầu thế kỷ 13 chính là honkyoku (本曲 "bản gốc"). Có bản chơi đơn là shakuhachi (尺八) được chơi bởi các nhà sư của trường thiền Fuke của phái phật Sơn[phạt cần]. Những thầy tu này, gọi là komusō ("hư vô tăng"), chơi honkyoku để xin bố thí và sự khai sáng. Trường Fuke đã ngừng hoạt động từ thế kỷ 19 nhưng các bản viết và truyền miệng của honkyoko vẫn còn tiếp tục cho đến ngày nay, mặc dù thường xuất hiện trong bối cách các buổi biểu diễn.[phạt cần] Các samurai vẫn thường nghe và tham gia biểu diễn trong các hoạt động âm nhạc này và qua đó làm phong phú thêm cho cuộc sống và hiểu biết của mình.[phạt cần].